“全紅嬋、孫穎莎、王楚欽直播帶貨土雞蛋?” 當(dāng)奧運(yùn)冠軍、知名藝人等公眾人物突然出現(xiàn)在直播間推銷商品時(shí),你或許會(huì)疑惑—— 這些“偶像”真的跨界帶貨了嗎?
近日,央視曝光了一批AI“盜聲”亂象。部分自媒體博主為了借助名人流量變現(xiàn),依托成熟的語音大模型技術(shù),將奧運(yùn)冠軍、知名演員等社會(huì)名流的聲音進(jìn)行克隆,然后與AI換臉結(jié)合,生成“數(shù)字人”進(jìn)行直播帶貨,導(dǎo)致大量不明就里的“粉絲”紛紛“慷慨解囊”,爭相購買。
這種以假亂真的AI“盜聲”手段,一旦被用于電信詐騙、虛假信息傳播,其帶來的安全風(fēng)險(xiǎn)難以估量,這無疑是一種違法犯罪行為?!吨腥A人民共和國民法典》早已明確對自然人聲音的保護(hù),參照適用肖像權(quán)保護(hù)的有關(guān)規(guī)定?!秱€(gè)人信息保護(hù)法》將聲紋信息列為敏感個(gè)人信息,受嚴(yán)格保護(hù)。AI克隆聲音用于商業(yè)帶貨,無疑是對自然人合法權(quán)益的侵犯,不僅擾亂了正常的電商秩序,對消費(fèi)者的行為也構(gòu)成誤導(dǎo),更觸犯了法律的底線。

整治AI“盜聲”濫用,必須快速、及時(shí)、有效鏟除此類違法犯罪行為的滋生土壤。
網(wǎng)絡(luò)平臺(tái)要當(dāng)好“守門員”。互聯(lián)網(wǎng)平臺(tái)作為內(nèi)容傳播的“守門員”,應(yīng)建立健全生成合成內(nèi)容的審核機(jī)制,對涉及名人聲音、肖像等內(nèi)容進(jìn)行重點(diǎn)篩查,一旦發(fā)現(xiàn)疑似克隆內(nèi)容,第一時(shí)間攔截下架。應(yīng)主動(dòng)研發(fā)AI識(shí)別技術(shù),用技術(shù)對抗技術(shù),用魔法打敗魔法,讓克隆聲音在傳播之初就被精準(zhǔn)識(shí)別,從源頭阻斷其迷惑公眾的路徑。

監(jiān)管部門要當(dāng)好“裁判員”。近日,中央網(wǎng)信辦在全國范圍內(nèi)部署開展“清朗·整治AI技術(shù)濫用”專項(xiàng)行動(dòng),將強(qiáng)化AI技術(shù)源頭治理,清理整治違規(guī)AI應(yīng)用程序,推動(dòng)網(wǎng)站平臺(tái)提升檢測鑒偽能力等。相關(guān)部門應(yīng)把監(jiān)管的利劍磨得更鋒利,建立跨部門協(xié)作機(jī)制,對AI聲音克隆侵權(quán)開展集中排查,暢通維權(quán)舉報(bào)渠道,對惡意侵權(quán)者依法從重處罰,形成有力震懾。
消費(fèi)者要當(dāng)好“監(jiān)督員”。真的假不了,假的真不了。面對AI“盜聲”騙局,消費(fèi)者要摒棄“追星式消費(fèi)”的沖動(dòng),不能頭腦發(fā)熱、耳目失聰,即便聽到“偶像”的聲音,也要多問一句:官方是否發(fā)布過帶貨信息?直播平臺(tái)是否為正規(guī)渠道?學(xué)會(huì)甄別細(xì)節(jié),AI克隆的聲音可能存在語氣生硬、斷句奇怪的問題,“數(shù)字人”的表情可能不夠自然,這些“蛛絲馬跡”都是識(shí)破騙局的關(guān)鍵;對這類違法行為,一經(jīng)發(fā)現(xiàn),應(yīng)立即舉報(bào),讓違法犯罪分子無所遁形,避免讓更多的消費(fèi)者上當(dāng)受騙;若不慎受騙,保留聊天記錄、訂單信息等證據(jù),依法維權(quán),追討損失。

AI技術(shù)本身并無善惡,關(guān)鍵在于如何駕馭。AI克隆聲音或換臉等合成技術(shù)理應(yīng)成為服務(wù)社會(huì)的正向力量。面對AI帶來的新問題、新挑戰(zhàn),只有各方盡職盡責(zé)、精準(zhǔn)發(fā)力、穩(wěn)妥施策,技術(shù)才能真正回歸“向善”的本質(zhì),老百姓的腰包才能裝上“安全鎖鏈”。(圖片源自網(wǎng)絡(luò))(竹風(fēng))